iT邦幫忙

2026 iThome 鐵人賽

DAY 1
1

「AI 不一定需要昂貴的基礎設施,真正重要的是,它能不能每天解決一個真實的問題。」

一、 故事的開始:一份送給媽媽的禮物
投資理財與我們的日常生活息息相關,每天整理市場資訊、記錄觀察、追蹤投資策略,對許多人來說是一件既重要卻又繁瑣的事。
Angelina 不是一個商業產品,也不是為了追逐最新的 AI 趨勢,她是一份送給媽媽的禮物 ❤️
我給了自己一個挑戰:「如果不用任何月費,只靠 Free Tier 與 Open Source,能不能打造一套真正每天都會使用的 AI Agent?」
答案是:可以!
Angelina 是一套 Self-hosted、Zero-Cost 的 AI 金融分析 Agent。每天晚上(台灣時間 23:00),她會自動整理台股與美股資訊、分析市場趨勢,透過 Telegram 即時推播,並持續累積與進化她自己的知識庫。

二、系統架構全貌(Architecture Overview)
整套系統建立於 Google for Developers 提供的 Gemini Free Tier,部署在 Red Hat Enterprise Linux (RHEL),以 Podman Rootless Container 執行,並透過 Ansible 進行多 VM 管理。

┌─────────────────────────────────────────────────────────────────────┐
│ Red Hat Linux Host │
│ │
│ ┌───────────────────────────────────────────────────────────────┐ │
│ │ Podman Container (Rootless) │ │
│ │ │ │
│ │ ┌─────────────┐ ┌──────────────┐ ┌────────────────┐ │ │
│ │ │ Chat UI │───▶│ FastAPI │───▶│ Gemini 2.5 │ │ │
│ │ │ (Static) │ │ Backend │ │ Flash (Free) │ │ │
│ │ └─────────────┘ └──────┬───────┘ └────────────────┘ │ │
│ │ │ │ │
│ │ ┌─────────────┼─────────────┐ │ │
│ │ ▼ ▼ ▼ │ │
│ │ ┌──────────────┐ ┌────────────┐ ┌──────────────┐ │ │
│ │ │ ChromaDB │ │ SQLite │ │ Scheduler │ │ │
│ │ │ + Embeddings│ │ Memory │ │ (APScheduler)│ │ │
│ │ └──────────────┘ └────────────┘ └──────┬───────┘ │ │
│ │ │ │ │
│ └──────────────────────────────────────────┼────────────────────┘ │
│ │ │
│ ┌──────────────────────────────────────────┴────────────────────┐ │
│ │ External Services │ │ │
│ │ ▼ │ │
│ │ ┌──────────┐ ┌──────────────┐ ┌──────────────┐ │ │
│ │ │ Telegram │ │ Google Sheets│ │ Google Drive │ │ │
│ │ │ Bot │ │ (Tracking) │ │ (Knowledge) │ │ │
│ │ └──────────┘ └──────────────┘ └──────────────┘ │ │
│ └───────────────────────────────────────────────────────────────┘ │
│ │
│ ┌────────────────┐ ┌─────────────────┐ │
│ │ Ansible │ │ Red Hat │ │
│ │ (Management) │ │ Insights │ │
│ └────────────────┘ └─────────────────┘ │
└─────────────────────────────────────────────────────────────────────┘

三、技術棧與 $0 元選型思維(Tech Stack)
好的系統,不只要考慮「成功」,更要考慮「失敗與維運」。
這套專案展現的是具備生產級別(Production-Ready)的維運架構:
模組領域 / 採用技術/工具 / $0 元方案理由
AI 推理核心 / Google Gemini 2.5 Flash / 免費 API 配額,具備強大推理解析力(備有 Flash-Lite 降級模型)
向量知識庫 / ChromaDB + sentence-transformers / 本地端 RAG 檢索,不依賴付費向量資料庫雲端服務
記憶機制 / SQLite + Auto-Summarization / 輕量化持久化對話紀錄與自動摘要
後端與 API / Python FastAPI + APScheduler / 高效能非同步框架與精準定時排程引擎
容器與隔離 / Podman (Rootless) / 非 root 權限執行,安全性極高的容器化部署
作業系統 / Red Hat Enterprise Linux (RHEL) / 使用 RHEL Developer Subscription 取得企業級 OS
自動化與監控 / Ansible + Red Hat Insights / 多機器集中部署、狀態稽核與系統健康度追蹤
外部生態 / Telegram Bot + Google Sheets/Drive API / 零成本通知推播、歷史趨勢追蹤與雲端知識同步

四、這 30 天,我們將會學到什麼呢?
在接下來的 30 天裡,我將把這套專案拆解、蒸餾成最純粹的技術實務,一步步分享如何從基礎設施搭建到 AI Agent 的持續演進:
Week 1:硬核基礎設施與安全隔離(Infra & Security)RHEL 環境配置、Podman Rootless 容器安全隔離與 Ansible 自動化維運。
Week 2:AI 大腦、RAG 知識庫與雙記憶引擎(AI & Memory)Gemini API 整合、Model Fallback 自動降級重試、ChromaDB 向量庫與 SQLite 長對話記憶。
Week 3:工作流自動化與外部生態系(Workflow & Integration)FastAPI 雙向溝通、股市數據抓取排程、Telegram 即時推播與 Google Workspace 同步。
Week 4:生產級維運、自動化備份與未來演進(DevOps & Future Evolution)Red Hat Insights 監控、自動化備份復原腳本,以及 AI Agent 下一階段的架構重構思維。

五、這次獨自升級專案的過程中,我有很深的體會..
AI 不一定要花大錢:Free Tier 搭配 Open Source,同樣能打造出有高價值的應用。
維運機制比模型本身更重要:模型 Fallback、自動 Retry、週期性 Backup、Maintainability 與 Reliability,才是決定系統能否長期運行的關鍵。
技術真正的價值:不在於追逐最新框架,而是解決生活中真實存在的問題,照顧到真實的人。

開啟連續 30 天的鐵人挑戰,讓我們一起把技術淬鍊成真正的實務心法!
明日預告:【Day 02】打造穩固基石:RHEL 基礎環境設定與 Rootless Podman 容器安全隔離


下一篇
【Day 02】打造穩固基石:RHEL 基礎環境設定與 Rootless Podman 容器安全隔離
系列文
打造零成本企業級 AI Agent:以 Gemini 2.5 Flash 構建金融分析助手與維運實戰3
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言